Nhà Rồng, ban đầu gọi là Trụ sở Công ty Vận tải Hoàng đế (Hotel des Messageries Impériales) được khởi công xây dựng ngày 4 tháng 3 năm 1863 và hoàn thành trong 1 năm. Kiến trúc tòa nhà theo phong cách kiến trúc phương Tây nhưng trên nóc nhà gắn hai con rồng lớn bằng đất nung tráng men xanh, châu đầu vào mặt trăng theo mô típ "Lưỡng long chầu nguyệt" - một kiểu trang trí quen thuộc của đình chùa Việt Nam.[9] Phía 2 đầu hồi tòa nhà có biểu tượng ký tự M.I. (viết tắt của Messageries Impériales) có thể nhìn thấy từ hướng sông Sài Gòn hoặc từ hướng đường Khánh Hội ra.[10]

Năm 1871, do ảnh hưởng của nền Cộng hòa, hãng đổi tên lại thành Messageries maritimes. Chi tiết mặt trăng trên nóc nhà được thay bằng biểu tượng của hãng vương miện, mỏ neo và đầu ngựa. Phù hiệu "Đầu ngựa" hàm chỉ thời trước bên Pháp, hãng chuyên lãnh chở đường bộ với ngựa kéo xe, còn "Mỏ neo" tượng trưng cho tàu thuyền. Do đó dân gian còn gọi là hãng Đầu Ngựa.[9]

Sau năm 1955, chính quyền Việt Nam Cộng hòa đã cho tu bổ lại mái ngôi nhà và thay thế hai con rồng cũ bằng hai con rồng khác với tư thế quay đầu ra. Từ đó, kiến trúc Nhà Rồng hầu như còn nguyên vẹn cho đến ngày nay.